Behavior Leverage Imbalance in Multi-Teacher On-Policy Distillation
多教师在线蒸馏中的行为杠杆不平衡与Soft Clamp校准
🧭 多教师在线蒸馏 · 工具调用校准 ★ 深度解读
Ant Group
指出多教师在线蒸馏中局部高杠杆 token 信号会导致工具过呼叫等行为偏移，提出 Soft Clamp 动态压缩极端 token 级散度来校准
📌 工作参考价值（4 点）
- 诊断视角迁移：不要只看全局 loss 或 token 暴露量，要监控决策边界 token（如 <tool_call> 的教师-学生概率差），这个“行为杠杆”能早期预警生成模式漂移。在电商推荐 Agent 或搜索多步推理中，可对关键动作 token（“下单”“点击”“调用函数名”）进行类似监控。
- Soft Clamp 轻量校准：无需改动路由或增加模型，对每个 token 的 JS 散度做 batch 内动态阈值压缩：\(d'_i = d_i \cdot C / \text{stopgrad}(d_i)\)，超过阈值只截断前向值但保留梯度。这个方法可嵌入现有 GKD 训练流程，应对多教师蒸馏中某一类行为过拟合的问题（如过度推荐、频繁改写 query）。
- 多教师蒸馏的风险评估：当不同教师负责不同行为模式（如工具调用 vs. 直接回答、生成 vs. 改写）时，即使数据量和散度平衡，也会因模式入口 token 的高杠杆产生行为偏移。在设计推荐系统的多教师对齐（例如点击率教师 vs. 停留时长教师）时，需检查关键决策 token 的局部信号强度。
- 格式锚定：结构化输出（如 XML 工具调用、推荐列表格式）容易发生模式漂移，加入少量监督 loss（如 sft alpha=0.3）作为格式锚定可保持输出可解析，这一 trick 可直接用于生成式推荐中的 Semantic ID 序列格式约束。